首页> 外文OA文献 >Are Ieee 754 32-bit and 64-bit Binary Floating-point Accurate Enough?
【2h】

Are Ieee 754 32-bit and 64-bit Binary Floating-point Accurate Enough?

机译:Ieee 754的32位和64位二进制浮点数是否足够精确?

代理获取
本网站仅为用户提供外文OA文献查询和代理获取服务,本网站没有原文。下单后我们将采用程序或人工为您竭诚获取高质量的原文,但由于OA文献来源多样且变更频繁,仍可能出现获取不到、文献不完整或与标题不符等情况,如果获取不到我们将提供退款服务。请知悉。

摘要

This paper describes a research toward the accuracy of floating-point values, and effort to reveal the real accuracy. The methods used in this research paper are assignment of values, assignment of value of arithmetic expressions, and output the values using floating-point value format that helps reveal the accuracy. The programming-tool used are Visual C# 9, Visual  C++  9,  Java  5,  and  Visual  BASIC  9.  These  tools  run  on  top  of  Intel 80x 86  hardware.  The  results  show  that 1*10-x cannot be accurately represented, and the approximate accuracy ranges only from 7 to 16 decimal digits.  
机译:本文介绍了对浮点值精度的研究,并努力揭示实际精度。本研究论文中使用的方法是值的分配,算术表达式的值的分配,并使用浮点值格式输出值,以帮助揭示准确性。使用的编程工具是Visual C#9,Visual C ++ 9,Java 5和Visual BASIC 9.这些工具在Intel 80x 86硬件之上运行。结果表明无法精确表示1 * 10-x,并且近似精度范围仅为7到16个十进制数字。

著录项

相似文献

  • 外文文献
  • 中文文献
  • 专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号